Gašpuitis bắt đầu sự nghiệp của mình với câu lạc bộ quê nhà Šiauliai. Anh thi đấu cho Šiauliai 5 năm bao gồm một mùa giải được đem cho Venta Kuršėnai mượn. Sau đó, anh lần lượt khoác áo Atlantas và Panevėžys trước khi sang Scotland thi đấu cho Dunfermline Athletic. Anh ra mắt câu lạc bộ trong hiệp hai của trận đấu với Greenock Morton vào ngày 13 tháng 3 năm 2021.[1] Gašpuitis và Dunfermline đã đồng ý chấm dứt hợp đồng vào tháng 1 năm 2022 để cho phép anh trở lại Litva. Ở mùa giải 2022, Vytas trở lại Litva thi đấu cho FA Šiauliai, anh ra sân 24/36 trận giúp đội bóng này xếp ở vị trí thứ 7 tại Giải vô địch quốc gia Litva.

Đầu năm 2023, Vytas sang Việt Nam thi đấu cho Sông Lam Nghệ An.[2]